home *** CD-ROM | disk | FTP | other *** search
/ CD Schooolhouse Version 10.0 / CD Schooolhouse Version 10.0.ISO / pc / dos / math / mrcry209 / cancel.eka < prev    next >
Encoding:
Text File  |  1992-11-03  |  559 b   |  15 lines
  1. ; Some extremely badly conditioned problems.
  2. ; These cannot be solved accurately without using higher precision
  3. ; than what Mercury uses.
  4.  
  5. ; Mercury fails, but at least it doesn't give wrong answers.
  6. ; Reference: U. W. Kulisch, W. L. Miranker, SIAM Review (March 1986).
  7.  
  8. ; The true answer is a = 12345678912345,
  9. ; but an enormous cancellation makes it difficult to calculate.
  10.  a = 12345678912345*9876543219876 - 12345678912345*9876543219875
  11.  
  12. ; a very nearly singular linear system
  13.  64919121  *x - 159018721*y = 1
  14.  41869520.5*x - 102558961*y = 0
  15.